"feature space"(특징 공간)는 기계학습·통계에서 데이터를 특징(feature)들의 값으로 표현했을 때 그 값들이 놓이는 추상적인 공간을 말합니다. 보통 각 관측값(샘플)은 여러 개의 특징으로 구성된 벡터로 표현되고, 이 벡터들이 n차원 유클리드 공간 R^n 같은 수학적 공간의 한 점들로 대응됩니다. 예를 들어 28×28 픽셀 흑백 이미지는 784차원(각 픽이 하나의 특징) 벡터로 보고, 단어 임베딩은 100·300차원 등으로 표현해 각 차원이 특징 공간의 축이 됩니다. 특징 공간의 좌표 간 거리를 재거나(유클리드 거리, 코사인 유사도 등), 점들의 분포를 관찰하거나, 경계면을 찾아 분류·클러스터링·회귀를 수행하는 것이 핵심입니다. 따라서 특징의 스케일·정규화, 결측치 처리, 범주형 변수의 인코딩(원-핫 등), 상관관계 제거·선택 같은 전처리가 결과에 큰 영향을 줍니다. 또한 높은 차원에서는 데이터가 희박해지고 거리 개념이 무의미해지는 '차원의 저주' 문제가 있으므로 PCA·t-SNE·임베딩 같은 차원 축소 기법을 자주 사용합니다. 요약하면, feature space는 관측치를 특징 벡터로 옮겼을 때 그 벡터들이 위치하는 수학적 공간으로서, 데이터의 표현·비교·학습이 실제로 이 공간에서 이루어진다고 이해하면 됩니다.
